Có hai tường thuật chính về nguồn gốc của Mahīśāsaka. Tài liệu Dīpavaṃsa (Đảo sử) của Theravāda khẳng định phái Mahīśāsaka phát sinh từ Sarvāstivāda.[1] Tuy nhiên, cả 2 tài liệu Śāriputraparipṛcchā (Xá-lợi-phất vấn kinh) và Samayabhedoparacanacakra (Dị bộ tông luân luận) đều ghi lại rằng Sarvāstivādin là nhánh Phật giáo lâu đời hơn mà Mahīśāsaka xuất hiện từ đó.[1] Buswell và Lopez cũng nói rằng Mahīśāsaka là một nhánh của Sarvāstivādin,[2] nhưng nhóm các bộ phái này được xếp sau Vibhajyavāda, được xem là "một cách gọi chung cho các nhánh không thuộc Sarvastivada của Sthaviranikaya", bao gồm cả Kasyapiya.[3]

Mahīśāsaka được cho là có nguồn gốc đầu tiên ở vùng Avanti của Ấn Độ. Người sáng lập phái Mahīśāsaka được cho là Purāṇa, một trưởng lão rất được tôn kính trong giới luật Mahīśāsaka, có thể tìm thấy được qua các thông tin ghi chép rải rác trong Đại tạng kinh.

Theo các tác phẩm của Huyền Trang, Mahīśāsaka được biết là đã hoạt động ở Kashmir vào thế kỷ thứ 4 CN. Huyền Trang ghi lại rằng Asaṅga, một đạo sư Du già hành tông quan trọng và là anh trai của Thế Thân, đã thọ giới vào phái Mahīśāsaka. Các giới luật mà Asaṅga ghi chép trong các tác phẩm A-tì-đạt-ma đã giữ lại nhiều đặc điểm cơ bản của Mahīśāsaka.[4] André Bareau viết:

[Rõ ràng là] Asaṅga đã từng là một Mahīśāsaka khi ông còn là một tu sĩ trẻ, và rằng ông đã kết hợp một phần lớn các quan điểm giáo lý của trường phái này vào tác phẩm của mình sau khi ông trở thành một bậc thầy vĩ đại của Mahāyāna, khi ông đã tạo nên những gì có thể được coi tân tiến và là một Abhidharma-piṭaka của Đại thừa.[5]

Mahīśāsaka được cho là đã lan rộng từ Tây Bắc xuống Nam Ấn Độ bao gồm cả Nāgārjunakoṇḍā, và thậm chí đến tận đảo Sri Lanka.[6] Theo AK Warder, Mahīśāsaka Ấn Độ cũng thành lập ở Sri Lanka một nhóm cùng với Theravāda, sau này cũng hợp nhất vào Theravāda.[7]

Vào thế kỷ thứ 7 CN, Nghĩa Tịnh đã xếp các nhóm Mahīśāsaka, Dharmaguptaka và Kāśyapīya lại với nhau thành các tiểu phái của Sarvāstivāda. Ông cũng cho rằng ba bộ phái này không phổ biến ở "năm vùng của Ấn Độ", nhưng nằm ở một số vùng của Oḍḍiyāna, Khotan, và Kucha.[8]